MoonEP Group Design
设计的出发点
总数据必须送达,接收方的服务能力却有限。分组与错峰控制同时进入的请求,credit 则在快慢不一致时让接收方决定何时放行下一批。它们增加协调成本,因此资源充裕时,直接发送仍然合理。
六步交互演示依次展示直接发送、规模增长、同序分批、错峰轮转、接收许可与真实 64P 映射。源码细节可继续阅读同目录的 Ascend DeepEP MoE Dispatch Optimization。
总数据必须送达,接收方的服务能力却有限。分组与错峰控制同时进入的请求,credit 则在快慢不一致时让接收方决定何时放行下一批。它们增加协调成本,因此资源充裕时,直接发送仍然合理。
六步交互演示依次展示直接发送、规模增长、同序分批、错峰轮转、接收许可与真实 64P 映射。源码细节可继续阅读同目录的 Ascend DeepEP MoE Dispatch Optimization。